Mundo
Risco da IA é "real" mas debate pode ser "marketing perigoso das próprias empresas"
Apesar de reconhecer que os riscos são reais, Dalila Durães alertou para a possibilidade de os mais recentes alertas sobre uma eventual ameaça à humanidade poderem ser uma estratégia de marketing.
Dalila Durães, vice-presidente da Associação Portuguesa para a Inteligência Artificial, concordou esta quinta-feira que existe um risco real neste setor, mas alertou que o mais recente debate sobre os perigos pode fazer parte de "algum tipo de marketing perigoso" das gigantes tecnológicas.
“Há um risco real, isso é evidente”, que tem aumentado “principalmente devido à sua crescente autonomia”, avisou a especialista em entrevista à RTP Notícias conduzida pela jornalista Núria Melo.
“Mas também temos que ter alguma atenção até que ponto isto pode ser algum tipo de marketing perigoso das próprias empresas”, alertou.
Dalila Durães afirmou que “a regulamentação cada vez mais tem um papel fundamental, mas terá que ser a nível mundial que tem de haver acordo” no sentido do desenvolvimento de sistemas de IA e da concentração na quantidade de empresas que desenvolvem este tipo de tecnologia.
Por serem “muito poucas”, é necessário refletir até que ponto estas empresas “influenciam os próprios Governos com o poder económico que têm sobre toda a parte da Inteligência Artificial, que funciona a nível global”.
A especialista explicou que os riscos que têm vindo a ser referidos nos mais recentes debates estão relacionados com “a autonomia, ou seja, estes sistemas são capazes de se autoalimentar com novo conhecimento e de tomar decisões” sem controlo humano.
“Podem tomar decisões que nos ponham em perigo”, alertou, dando como exemplos violações de privacidade, manipulação de informação ou deepfakes.
“Podem tomar decisões que nos ponham em perigo”, alertou, dando como exemplos violações de privacidade, manipulação de informação ou deepfakes.
“Quando perdemos o controlo de um sistema, sendo ele autónomo, pode tomar decisões por ele próprio”.
Esta semana, Jacob Coxon, antigo investigador da Anthropic, anunciou na rede social X que deixou de trabalhar para a empresa, alertando sobre os perigos graves da inteligência artificial para o futuro da humanidade.
As afirmações reacenderam o debate sobre os riscos desta tecnologia.
